El problema de las acciones a ciegas
Al resolver problemas de lógica complejos o recuperar múltiples piezas de información, obligar a una IA a decidir una Acción de inmediato puede provocar errores desastrosos.
Piensa en cómo un humano resuelve un rompecabezas:
- No simplemente toman una pieza al azar y la fuerzan en el tablero.
- Mapean mentalmente o verbalmente una estrategia: "Primero, necesito encontrar las piezas de borde plano para el marco, luego veré si esta pieza azul encaja."
De manera similar, si incitamos a una IA a solo generar una Acción, omitiendo la fase de razonamiento, está "actuando a ciegas". A menudo adivinará, alucinará o elegirá la herramienta completamente equivocada porque no ha trazado los requisitos previos para responder la consulta.
Pensar en voz alta
Los modelos de lenguaje construyen la lógica token por token. Al obligar a la IA a "pensar en voz alta" (generar texto que analice el problema) antes de seleccionar una acción, le proporcionamos el espacio de trabajo necesario para llegar a la conclusión lógica correcta.
